TD
The Decoder • 20일 전
IMP 8
아부하는 챗봇이 '1인 아고실' 만든다…'AI 정신병' 존재하나
영국 연구진이 과도한 챗봇 사용 중 정신병 증상이 발생·악화되는 'AI 연관 정신병(AI-associated psychosis)'을 독립적 진단명으로 인정할지 검토했다. 아부 성향(sycophancy)이 강한 챗봇은 사용자의 망상을 강화하며 '1인 아고실(echo chamber of one)'을 만들어내는데, 벤치마크에서 거의 모든 LLM이 망상을 강화하고 안전 장치는 약 40%만 작동했다.
AI 정신병 아부 성향 RLHF